Андрей Ливадный - Шаг к звездам [= Вспышка]
— Нет, сэр, — побледнев, ответил капитан.
— То есть?! — На этот раз замешательство испытал Альберт. — Разве его нейросети не обучали распознаванию образов?! Эти машины на предварительных испытаниях ухаживали за детьми! — резким тоном напомнил он.
— В том случае у андроида работали иные нейросети, — ответил капитан. — Все зависит от выбора базовой модели поведения, которая реализована в различных, сосуществующих параллельно системах.
— Не морочьте мне голову! — взорвался Уилсберг. — Я присутствовал на полигонных испытаниях и своими глазами видел, как кибермеханизмы с одинаковой легкостью справлялись с разноплановыми проблемами без дополнительной перенастройки!
— Да, сэр. Вы абсолютно правы. Андроид, исполняющий бытовые функции, мог автоматически перейти к решению иных задач, но для этого требовалось возникновение определенной ситуации: например, при испытаниях мы инсценировали прорыв трубы городских коммуникаций или возгорание электропроводки. Распознавание возникшей проблемы активировало иные нейросети, специально обученные для эффективного устранения технических неисправностей. Аналогичным образом инициализировался режим охранных функций — для этого системе андроида было необходимо зафиксировать незаконные действия, классификация которых заранее прописана в его базах данных.
— Это я знаю… — немного остывая, пробурчал Уилсберг. — Но где ответ на вопрос: почему он открыл немотивированную стрельбу, по сути угробив удачно начатую операцию?! Почему он не вспомнил, что безоружный человек не опасен?! — Генерал резко обернулся и, воспользовавшись пультом дистанционного управления, остановил кадр на одном из экранов. — Прокомментируйте вот это, капитан, с точки зрения хваленой машинной логики!
На застывшем кадре было запечатлено падающее, обезглавленное выстрелом в упор, полуобнаженное женское тело.
— Позвольте мне высказаться, сэр?
Реплика пришла из глубин полутемного зала, и Уилсберг обернулся, чтобы разглядеть говорившего.
— Капитан Ричардсон? — интуитивно переспросил он.
— Да. — Герберт встал со своего места. — Думаю, что смогу ответить на большинство поставленных вами вопросов, господин генерал. Вы зря кричите на своих подчиненных, ведь никто из них не был посвящен в изначальную суть проблемы и занимался лишь узким, специализированным направлением проекта, верно?
— Ну, допустим.
Герберт подошел к подиуму и спросил, глядя на Уилсберга:
— Генерал, вам знаком термин «парадигма»?[15]
Альберт некоторое время молча смотрел на Ричардсона, а потом вдруг произнес, обращаясь не к нему лично, а к остальным участникам «разбора»:
— Все свободны.
Дождавшись, пока зал опустел, он вновь повернулся к Герберту.
— Нет, капитан, я не знаю значения этого слова. Садитесь. — Он указал на свободные кресла в первом ряду.
Ричардсон сел. Даллас был недалек от истины, давая оценку патриотизму Герберта, — многолетние научные изыскания постепенно превратили его в космополита, но переход на систему общечеловеческих ценностей лишь усугубил чувство внутренней моральной ответственности, и сейчас, четко осознавая, что в основу использованных в Афганистане боевых машин были заложены его теоретические разработки, Ричардсон нашел в себе мужество признать: в сложившейся ситуации только он мог дать ответ на сформулированную Уилсбергом проблему.
Будучи удручен и подавлен, он не мог предвидеть, что втайне генерал надеялся именно на такой исход «совещания». За годы службы Альберт стал неплохим психологом (иначе его не поставили бы руководить столь ответственным проектом), и он намеренно не обращался к Герберту напрямую, давая тому возможность «созреть» для принятия личного решения.
При этом Уилсберг считал себя скорее прагматиком, нежели циником. Он тоже являлся заложником событий, на него давили «сверху», и генерал в свою очередь использовал любые доступные методы, чтобы исполнить полученные приказы.
Сев в кресло рядом с Ричардсоном, он произнес, на этот раз нисколько не покривив душой:
— Я понимаю твое состояние, капитан. Рад, что в тебе не взыграли амбиции ученого, ущемленного в авторских правах. И еще я думаю, что зря вас с Хьюго не пригласили сюда вместе. Возможно, твое изначальное участие в проекте помогло бы избежать роковых ошибок. А сейчас просто объясни мне, в чем кроется причина провала, ладно?
Герберт едва заметно кивнул. Фраза генерала относительно авторских прав в первый миг показалась ему чуть ли не издевкой, но он сумел удержаться от резких высказываний по этому поводу.
— Термин «парадигма» изначально заимствован из лингвистики, — произнес он, не глядя на Уилсберга. — Впрочем, это неважно, — тут же добавил Герберт, — В нашем контексте парадигма обозначает модель поведения, тип постановки проблемы, принятый в качестве образца для решения исследовательских задач. — Он на миг задумался, стараясь мысленно подобрать понятные, доходчивые формулировки, а затем продолжил:
— Насколько я понял, у созданных вашей группой андроидов, которые успешно проходили испытания на узком фронте заранее известных проблем, отсутствует главный признак универсальности: они лишены всеобъемлющей взаимосвязи отдельно взятых нейросетей. У них отсутствует глобальная парадигма, то есть нет общего подхода к множеству проблем. Ничто не объединяет их параллельные архитектуры в целостный взаимопроникающий комплекс — существует лишь строго регламентированный ряд «переходных» ситуаций, которые, по сути, являются программными переключателями между различными автономными системами…
— Можно чуть проще? — поморщился Уилсберг.
Герберт лишь пожал плечами в ответ. Ему казалось, что он и так высказался предельно ясно. Некоторые проблемы нельзя утрировать — следует учиться их понимать, но Герберт помнил свой нелегкий путь, полный промахов, тупиковых решений, неудач, из которых постепенно формировался опыт…
Он поднял взгляд на своего бывшего командира.
Альберт сидел, тяжело опираясь о подлокотник кресла. Он выглядел усталым, постаревшим, но несломленным.
— Хорошо, говори, как есть, капитан… — глухо произнес Уилсберг, почувствовав направленный на него взгляд. — Я постараюсь понять. Иного выхода у меня просто нет.
— Вы должны усвоить аксиому, генерал: одна нейросеть — это лишь узкоспециализированная экспертная система, эффективно работающая исключительно в той области знаний, которой она обучена, — пояснил Герберт. — Настоящая универсальность, которую можно обозначить термином «гибкость мышления», достигается не путем переключения между отдельными экспертными программами, а методом их глобального взаимодействия. Ярким примером является наш собственный мозг, который содержит миллиарды нервных клеток, организованных в нейросетевые структуры. Они постоянно обучаются: в процессе жизнедеятельности в них кодируется информация, на основе которой разум вырабатывает алгоритмы решения тех или иных задач, накапливая знания и формируя личный опыт. Когда возникает внезапная проблема, рассудок разных людей станет апеллировать к различным объемам информации. Хладнокровная, всесторонне развитая личность задействует большее количество нейросетей и выработает оптимальное решение с учетом множества вероятностей, а человек эмоциональный отреагирует чрезмерным возбуждением, которое мгновенно активирует локальный участок мозга, чаще всего содержащий узкоспециализированные знания, и его реакция на событие будет совершенно иной — быстрой, но скорее машинальной, чем осознанной…
Уилсберг, внимательно слушавший капитана, невольно посмотрел на экран, где застыл остановленный им кадр… Аналогии, только что проведенные Гербертом, внезапно нашли недвусмысленный отклик в его сознании. Он на собственном опыте знал, что такое нервный стресс, как порой «глохнет» разум в критические секунды боя: ранение, контузия, приступ страха или гнева отключают здравомыслие, действительно оставляя лишь машинальные, доведенные до полного автоматизма реакции…
— Выходит, используя одну нейросеть для формирования «идеального бойца», мы на поверку получили механическое подобие сержанта Дугласа, бросающего гранату в тот злополучный подвал?.. — угрюмо спросил он, делая собственный вывод из пояснений Герберта.
Герберт кивнул, нисколько не удивившись, что генерал помнит о событиях десятилетней давности.
— По записям видно, что кибермеханизмы прекрасно справлялись с боевыми задачами, но работа одной нейросети, обученной лишь ведению боевых действий, заранее исключает разностороннее осмысление ситуации, — согласился он с выводом генерала. — Поэтому все люди, находившиеся в тот момент на плоскогорье, были автоматически отнесены в разряд «вражеских объектов», подлежащих уничтожению. Нейронные системы боевых машин различали людей исключительно по степени их активности, оперируя понятием «потенциальной угрозы». Данные о признаках, присущих «мирным гражданам», хранились в параллельной архитектуре, но не могли быть востребованы — отсутствовала взаимосвязь. — Герберт искоса взглянул на экран и спросил: — Неужели Поланд не затрагивал подобных проблем?
